Lahir di Halifax, Nova Scotia, ibubapanya ialah John Sparrow Thompson dan Charlotte Pottingger, beliau merupakan Orang Ireland. Sebuah artikel mengatakan beliau dilahirkan pada 10 November 1845, yang lain pula mengatakan 1844. Thompson telah mengahwini Annie Affleck (1842-1913) pada 1870. Annie Thompson merupakan seorang yang baik hati dengan Agnes Macdonald (seorang isteri kepada perdana menteri) dan mereka berdua ingin bercadang untuk menaiki Kereta Api Pasifik Kanada dengan melalui gunung British Columbia. Thompson telah menulis tentang kehidupannya dengan isterinya yang sedang bahagia. Namun, kehidupan keluarga Thompson yang berbahagia itu dilanda tragedi. Seorang anaknya, yang bernama Annie telah meninggal dunia pada usia satu tahun, kemudian yang sulung, bernama David pada usia dua tahun.